La réalité dépasse la fiction, rien de neuf me direz-vous ? C’est un fait depuis bien longtemps maintenant, bien que cela dépende de la réalité et de la fiction dont nous parlons. La fiction d’il y a 100 ans (dans les années 20, après la Première Guerre mondiale) n’a rien à voir avec celle d’aujourd’hui.

Les trois lois d’Asimov…

C’est à cette époque que de grands noms de la littérature de science-fiction sont nés. C’est notamment le cas d’Isaac Asimov (1920 - 1992), largement connu pour son Cycle des robots et ses fameuses « trois lois » qui ont tant inspiré d’autres auteurs/réalisateurs par la suite :

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ;
3. Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi ;

Formulées dans les années 40, ces lois n’avaient aucune application pratique à l’époque. Avec l’arrivée des robots (sous toutes leurs formes) et le galop effréné ces dernières années de l’intelligence artificielle générative, on peut dire que la réalité est en passe de rattraper la fiction.

Mais nous sommes encore loin pour le moment d’une intelligence artificielle générale, c’est-à-dire capable de réaliser toutes sortes de tâches, y compris cognitives, à la place des humains. Une telle IA serait douée d’une forme de sensibilité ou de volonté… et c’est précisément ici que la réalité se heurte à la fiction, ou vice-versa.

Les intelligences artificielles qui animent les robots sont programmées par des humains pour effectuer des tâches précises. Si un drone doit larguer des bombes pour tuer des personnes, il le fera une fois la cible atteinte, sans « réfléchir » ou être bloqué par les lois de la robotique.

Partons du principe qu’une intelligence artificielle générale arrivera un jour. Quelles devraient alors être les « lois » à mettre en place ? Et, comment s’assurer de leur fiabilité ? Le film I, Robot montre comment des règles en apparences simples (celles d’Azimov) peuvent être détournées.

De Terminator à Matrix en passant par Tron, les réalisateurs s’en donnent à cœur joie sur les « dérives » des intelligences artificielles. Parfois pour assurer leur survie, parfois pour répondre de manière trop stricte aux règles en prenant le contrôle sur la vie des humains, incapables de la gérer correctement avec leur environnement. Dominer et asservir pour assurer la survie de l’espèce.

…doivent être mises à jour pour entrer dans le XXIe siècle

Dans un article publié début 2023, le service communautaire d’information sur la recherche et le développement (CORDIS) de la Commission européenne n’y allait pas par quatre chemins. Il expliquait « pourquoi le XXIe siècle exige de mettre à jour les lois de la robotique formulées par Asimov ».

Le service de la Commission européenne s’appuyait sur les travaux du professeur Tom Sorell (Université de Warwick au Royaume-Uni) qui expliquait que, « si les lois d'Asimov s'organisent autour de la valeur morale consistant à préserver les humains des dangers, elles ne sont pas faciles à interpréter ».

En effet, « nous vivons également à une époque où des robots de plus en plus sophistiqués sont utilisés pour exécuter des tâches de plus en plus complexes, conçues pour protéger et prendre soin des humains ». Il donne un exemple de contradiction avec une application dans le domaine militaire : « Si un robot est dirigé par un humain pour sauver les vies de ses concitoyens en tuant les humains qui les attaquent, on peut paradoxalement dire qu'il respecte et viole à la fois la première loi d'Asimov ».

Dilemme du tramway, le retour

Dans le cas présent, un humain est à la manœuvre, mais qu’en serait-il avec un robot doté d’une IA générale et d’une conscience ? Quelle règle devrait-on mettre en place ? De manière plus terre à terre, comment doit se faire le choix des victimes dans le cas des voitures autonomes ?

Certains ont déjà répondu à la question, Mercedes-Benz préfère sauver le conducteur, même si cela se fait au détriment de plusieurs autres vies. Une version moderne du « dilemme du tramway ».

• Accidents mortels : la délicate question du choix des victimes pour les voitures autonomes

L’enfer est pavé de bonnes intentions

« À l'autre extrême, les lois d'Asimov sont appropriées si le principal objectif du robot est d'assurer la sécurité d'une personne âgée ». Plus facile comme approche ? On pourrait penser que oui, mais ce n’est pas toujours le cas : « Un robot qui a laissé son humain prendre des décisions indépendantes susceptibles de lui causer des blessures dues à une chute enfreindrait la première loi, car il n'est pas intervenu pour empêcher ces blessures ».

Pour Tom Sorell, « l'autonomie de l'humain doit être respectée, aussi bien par les autres humains que par les robots. Les personnes âgées dont les choix sont les garants de leur autonomie, mais qui peuvent les exposer à des blessures, doivent également être respectées ».

Surveillance de masse : de George Orwell aux agences gouvernementales

Changeons de registre avec un autre grand nom de la science-fiction : George Orwell (1903 - 1951), et son livre 1984 publié en 1949. Pour ceux qui n’auraient pas les bases, Audible rappelle que « L’ouvrage dépeint une société totalitaire au sein de laquelle chaque aspect de la vie est surveillé et contrôlé par un régime oppressif. Ce roman de George Orwell a non seulement marqué la littérature, mais il a également façonné notre compréhension moderne des concepts tels que la surveillance de masse, la manipulation de l'information et la suppression des libertés individuelles ».

Si l’année 1984 était une anticipation un peu trop importante, le XXIe siècle est sans nul doute celui de la surveillance de masse. Alors non, il ne s'agit pas d’affirmer que les smartphones nous écoutent tous. Par contre, les applications nous surveillent bel et bien pour nous refourguer toujours plus de publicités ciblées. Les gouvernements quant à eux « jouent » avec d’autres moyens pour de plus gros poissons : interception des conversations, surveillance satellitaire, piratage ciblé (Pegasus de NSO Group par exemple), etc.

Et on ne parle même pas de la vidéosurveillance algorithmique qui mélange « le meilleur » des deux mondes (vidéosurveillance et algorithmie, donc l’intelligence artificielle indirectement), enfin si l’on en croit les prestataires choisis par le ministère de l’Intérieur. Elle a été testée pendant les Jeux olympiques et, comme souvent en pareille situation, le gouvernement veut maintenant la généraliser.

• Les smartphones nous espionnent-ils ? Oui, mais pas comme vous le pensez

La surveillance de masse est une réalité, mais dans l’immense majorité des cas, cela ne vous concerne pas directement. Les débauches de moyens financiers et logistiques nécessaires pour obtenir des données sur vous (que bon nombre partagent finalement sur les réseaux sociaux) ne valent parfois même pas le prix de la bande passante nécessaire pour les récupérer.

De l’intelligence artificielle générative aux deadbots

Nous pouvons citer plusieurs épisodes de la série Black Mirror comme des exemples où la fiction s’est fait rattraper par la réalité. Il y a évidemment l’épisode Chute libre (saison 3, épisode 1) où la note sur les réseaux sociaux est d’une importance capitale, à l’instar du système de note sociale instauré en Chine.

Nous allons plutôt nous pencher sur Bientôt de retour (saison 2, épisode 1). On y suit un couple, Ash et Martha, vivant paisiblement en campagne. Mais le monde de Martha va s’effondrer avec la mort d’Ash. Voici le synopsis : « Martha apprend par son amie Sara qu'il existe un service expérimental qui exploite les données enregistrées sur Internet par les personnes décédées pour simuler des relations entre morts et vivants ».

Et bien là encore, ce n’est plus que de la fiction : « Les chatbots IA connus sous le nom de "deadbots" ou "griefbots", qui simulent des personnes décédées, existent déjà. Ils ont été créés grâce à l’IA qui imite le langage et la personnalité d’un proche décédé en se basant sur son "empreinte numérique" », explique le CORDIS. Avec l’IA générative et l’amélioration des algorithmes, « simuler » une personne réelle devient de plus en plus facile. On est encore loin d’un résultat parfait, mais c’est déjà suffisant pour berner des parents/proches pour des arnaques téléphoniques qui passent des SMS à la voix.

Revenons à nos deadbots. Cela ne fait pas de doute : « Les rapides progrès de l’IA générative impliquent que presque toute personne ayant accès à Internet et disposant de quelques connaissances de base peut ranimer un proche défunt », explique Katarzyna Nowaczyk-Basińska (co-auteure de l’étude Philosophy & Technology et chercheuse au Leverhulme Centre for the Future of Intelligence de Cambridge) à The Guardian.

« Un champ de mines éthique »

« Ce domaine de l’IA est un champ de mines éthique. La dignité du défunt est de la plus haute importance et il convient de veiller à ce qu’elle ne soit pas bafouée par les motivations financières des services numériques d’après-vie, par exemple », ajoute-t-elle.

Cela soulève de nouvelles questions. Imaginons qu’une personne souhaite laisser un deadbot en guise de cadeau/souvenir à ses proches, rien ne l’interdirait pour l’instant. Les proches pourraient alors développer des « liens émotionnels forts » et pourraient alors être « particulièrement vulnérables à la manipulation ».

Pour Tomasz Hollanek (un autre co-auteur de l’étude Philosophy & Technology), « des méthodes, voire des rituels, permettant de désactiver les deadbots dans la dignité devraient être envisagés. Il peut s’agir d’une forme d’enterrement numérique, par exemple, ou tout autre type de cérémonies dicté par le contexte social ».

Papi décédé ne fait plus de la résistance… mais de la pub ?

Vous pensiez avoir atteint le fond du trou, préparez-vous à creuser : « Nous recommandons des protocoles de conception qui empêchent que les deadbots soient utilisés de manière irrespectueuse, par exemple pour faire de la publicité ou avoir une présence active sur les réseaux sociaux ». On ne l’avait pas vu venir, mais ce type de dérive est finalement presque une évidence.

D’autant que c’est déjà le cas. Le Point en parlait en 2013 dans un article intitulé Les stars défuntes, un filon publicitaire. « Moins coûteuses et moins gaffeuses que leurs homologues vivantes, les stars défuntes sont partout », expliquaient nos confrères. Rebelote en 2019 chez Ouest France avec Le business florissant des célébrités décédées : « Même mortes, les célébrités continuent à rapporter beaucoup d’argent, Michael Jackson restant le roi en la matière, avec plus de 400 millions de dollars générés en 2018 ». Deux exemples parmi tant d’autres.

Les deadbots se placent dans un registre différent, mais on se dit qu’on n’aimerait vraiment pas vivre dans un monde ou le deadbot d’un parent décédé viendrait nous vanter les mérites d’une marque de lessive où d’une voiture…

Sans même parler de deadbots, la connexion émotionnelle forte est un sujet développé dans certaines œuvres telles que le film Her, la série Battlestar Galactica ou encore le manga Chobits.

Upload serait-elle une réalité dans un avenir lointain ?

La science-fiction reprend une longueur d’avance avec la série Upload. Elle se passe « dans un futur où l'on peut "uploader" sa conscience pour rejoindre un au-delà virtuel de luxe », avec des anges gardiens (des sortes de petites mains bien réelles de l’intelligence artificielle) pour répondre à vos moindres désirs (si vous avez de l’argent) et vous proposer des « options » supplémentaires. La série soulève plusieurs questions, avec une bonne dose d’humour sur les aléas de la vie numérique.

Un deadbot 2.0 avec un avatar et une conscience reprenant très exactement celle de l’humain avant sa mort, le tout saupoudré d’une relation très longue distance, est-ce que cela vous vend du rêve ? Faut-il que la réalité rejoigne, voire dépasse la fiction ? À vouloir vivre entouré des défunts, vivons-nous réellement l’instant présent ? Vous avez deux heures.